Địa bàn huyện Nam Trà My trước đây là một phần huyện Trà My cũ.

Ngày 20 tháng 6 năm 2003, Chính phủ ban hành Nghị định số 72/2003/NĐ-CP[1]. Theo đó, chia huyện Trà My thành hai huyện Bắc Trà My và Nam Trà My.

Sau khi thành lập, huyện Nam Trà My có 10 xã: Trà Cang, Trà Don, Trà Dơn, Trà Leng, Trà Linh, Trà Mai, Trà Nam, Trà Tập, Trà Vân, Trà Vinh. Huyện lỵ đặt tại xã Trà Mai.